Huyện Kim Bôi được tách ra từ huyện Lương Sơn theo Nghị định số 153-TTg, ngày 17 tháng 4 năm 1959 của Chính phủ. Khi mới thành lập, huyện có 22 xã: Bắc Sơn, Bình Sơn, Đông Bắc, Dũng Tiến, Hạ Bì, Hợp Đồng, Hợp Kim, Hùng Tiến, Kim Bình, Kim Bôi, Kim Sơn, Kim Tiến, Kim Truy, Lập Chiệng, Nật Sơn, Sơn Thủy, Thượng Bì, Thượng Tiến, Trung Bì, Tú Sơn, Vĩnh Đồng, Vĩnh Tiến.

Theo Quyết định số 211-NV ngày 7 tháng 12 năm 1963 của Bộ Nội vụ, chia xã Dũng Tiến thành 3 xã: Nuông Dăm, Mỵ Hòa, Sào Báy; chia xã Kim Truy thành 3 xã: Cuối Hạ, Kim Truy, Nam Thượng; chia xã Tú Sơn thành 2 xã: Đú Sáng, Tú Sơn. Huyện Kim Bôi có 27 xã trực thuộc.[1]

Ngày 13 tháng 7 năm 1967, thị trấn nông trường Thanh Hà được thành lập theo Quyết định số 269-NV của Bộ Nội vụ.[2]

Ngày 26 tháng 11 năm 1970, chuyển 8 xã: Thanh Nông, Hợp Thanh, Thanh Lương, Cao Thắng, Cao Dương, Hợp Châu, Long Sơn, Tân Thành thuộc huyện Lương Sơn về huyện Kim Bôi quản lý.[3]

Huyện Kim Bôi có thị trấn nông trường Thanh Hà và 35 xã: Bắc Sơn, Bình Sơn, Cao Dương, Cao Thắng, Cuối Hạ, Đông Bắc, Đú Sáng, Hạ Bì, Hợp Châu, Hợp Đồng, Hợp Kim, Hợp Thanh, Hùng Tiến, Kim Bình, Kim Bôi, Kim Sơn, Kim Tiến, Kim Truy, Lập Chiệng, Long Sơn, Mị Hòa, Nam Thượng, Nật Sơn, Nuông Dăm, Sào Báy, Sơn Thủy, Tân Thành, Thanh Lương, Thanh Nông, Thượng Bì, Thượng Tiến, Trung Bì, Tú Sơn, Vĩnh Đồng, Vĩnh Tiến.

Ngày 27 tháng 3 năm 1978, sáp nhập 2 xã Thượng Bì và Trung Bì vào xã Hạ Bì; thành lập thị trấn Bo, thị trấn huyện lỵ huyện Kim Bôi trên cơ sở một phần diện tích và dân số của xã Kim Bình.[4]

Huyện Kim Bôi có 2 thị trấn và 33 xã.

Ngày 27 tháng 3 năm 1999, giải thể thị trấn nông trường Thanh Hà; thành lập thị trấn Thanh Hà trên cơ sở một phần diện tích và dân số của xã Thanh Nông; chia xã Hạ Bì thành 3 xã: Thượng Bì, Trung Bì, Hạ Bì.[5]

Huyện Kim Bôi có 2 thị trấn và 35 xã.

Ngày 14 tháng 7 năm 2009, Chính phủ ban hành Nghị quyết số 31/NQ-CP về việc điều chỉnh địa giới hành chính huyện Kim Bôi[6]. Theo đó:

• Chuyển các xã: Hợp Thanh, Thanh Lương, Cao Thắng, Cao Dương, Hợp Châu, Long Sơn, Tân Thành về huyện Lương Sơn quản lý (nay 7 xã này đã sáp nhập thành 3 xã: Cao Dương, Thanh Cao và Thanh Sơn)
• Chuyển thị trấn Thanh Hà và xã Thanh Nông về huyện Lạc Thủy quản lý (nay là thị trấn Ba Hàng Đồi).

Huyện Kim Bôi còn lại 1 thị trấn và 27 xã.

Ngày 17 tháng 12 năm 2019, Ủy ban thường vụ ban hành Nghị quyết số 830/NQ-UBTVQH14 về việc sắp xếp các đơn vị hành chính thuộc tỉnh Hòa Bình[7]. Theo đó:

• Sáp nhập 2 xã Hạ Bì và Kim Bình vào thị trấn Bo
• Hợp nhất 3 xã Hùng Tiến, Bắc Sơn, Nật Sơn thành xã Hùng Sơn
• Hợp nhất 3 xã: Kim Sơn, Lập Chiệng, Hợp Kim thành xã Kim Lập
• Hợp nhất 3 xã Thượng Bì, Trung Bì, Sơn Thủy thành xã Xuân Thủy
• Hợp nhất 2 xã Hợp Đồng và Thượng Tiến thành xã Hợp Tiến
• Sáp nhập 2 xã Kim Tiến và Kim Truy vào xã Kim Bôi.

Huyện Kim Bôi có 1 thị trấn và 16 xã như hiện nay.